马斯克等大佬叫停GPT-5研发！周鸿祎：不发展才是最大的不安全

白杨 21世纪经济报道 2023-05-02

作者丨白杨

编辑丨骆一帆

3月30日下午，360公司创始人周鸿祎在微博发布长文，对“马斯克请愿叫停GPT-5研发”发表了看法。

3月29日，以马斯克为首的1000多位科学家和企业高管给美国政府写请愿信，要求暂停GPT-5的研发，担心它“对社会和人类构成潜在风险”。（此前报道：太危险，“立即暂停大型AI研究”！马斯克等千名大佬集体呼吁）

对此，周鸿祎发微博认为，这不影响中国发展自己的大语言模型，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距，现在担心风险为时尚早。

在周鸿祎看来，GPT将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力，因此中国一定要迎头赶上。

他也坦言，最近人工智能的指数级跃变确实让人有点措手不及。人类如何应对AI带来的未来安全挑战，谁也没法给出确定答案。

“人工智能的进化已经不以个人意志为转移了，哪怕是马斯克。”周鸿祎说，“我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全。”

对于人类如何与AI共处，周鸿祎将目前的观点概括为三派，分别是“降临派”、“幸存派”、“拯救派”。他表示自己比较认同“拯救派”的观点，即“AI不是来取代人类的，而是来升级人类的，人类将迎来工业革命之后最大的生产力解放”。

事实上，今年以来，周鸿祎几乎在所有公开场合都会谈论ChatGPT，他更是自称为“GPT的布道者”。

比如在3月25日由国务院发展研究中心主办的2023中国发展高层论坛上，周鸿祎便展示了AI绘图生成的自画像以及由大语言模型生成的开场白。他还将人工智能发展划分为人工智障、强人工智能、超级人工智能三个阶段，并认为，GPT-4已经拥有超人的能力，具有真正的智能。

周鸿祎当时提出，中国有能力发展自己的人工智能大语言模型。“中国大语言模型技术水平和GPT-4的差距在2到3年时间，目前GPT的技术方向已经明确，不存在难以逾越的技术障碍，中国应当坚持长期主义精神，迎头赶上。”

不仅如此，他还认为在场景化、工程化、产品化、商业化方面，中国拥有巨大优势，尤其在知识标注领域，中国拥有高端知识人才红利，人工智能训练师将成为新兴热门职业。

仅隔三天，在3月29日召开的2023数字安全发展与高峰论坛上，周鸿祎就向外界展示了360版的ChatGPT产品。在现场演示之前，周鸿祎说，“今天就是把刚出生的孩子抱出来给大家看看”。

根据演示，该产品被嵌套在360搜索引擎中，会根据用户搜索的内容在搜索结果右侧展示AI生成内容。周鸿祎现场提出了几个问题，记者根据现场观众反馈，认为其中部分回答的水平超出预期，但也有些答案出现了失误。

周鸿祎称，360在发展人工智能大语言模型上具备数据获取和处理的工程化能力、人工知识训练、场景三大核心优势，未来将坚持“两翼齐飞”战略，先占据场景，同步发力核心算法技术。

今年以来，三六零的股价也随着ChatGPT概念的火热而起飞。截至发稿，360的股价为16.84元/股，市值为1200亿元，较年初增长了近150%。

以下为周鸿祎微博全文：

昨天，以马斯克为首的科学家给美国政府写请愿信，要求暂停GPT-5的研发，担心它“对社会和人类构成潜在风险”。我认为这不影响中国发展自己的大语言模型，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距。现在担心风险为时尚早。

不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。

最近人工智能的指数级跃变确实让人有点措手不及。我一直预测，GPT-6到GPT-8的版本就会产生真正的意识，甚至进化成一个新物种。人类如何应对AI带来的未来安全挑战，谁也没法给出确定答案。

我曾经想过是不是在程序里加一句暗语，比如“天王盖地虎，宝塔镇河妖”，一提这句话，AI就能停止工作。然而现在的发展态势，已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了，哪怕是马斯克。

我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全。

关于马斯克的请愿信，我不了解内幕，但我猜测是GPT的进化路上出现了超乎人类想象的现象。

真是这样我倒不奇怪，我认为GPT-4已经是超级人工智能的雏形，早就出现了一些连它的创造者都无法解释的现象，比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人，不知道在哪个节点会发生智力的突变。

对于人类如何与AI共处，目前的观点大致分为三派：

“降临派”认为人类应该把知识献给AI，甘心做硅基文明的引导程序。

“幸存派”认为只要我能生存，未来跟AI以什么样的方式共处都行。

“拯救派”认为AI不是来取代人类的，而是来升级人类的，人类将迎来工业革命之后最大的生产力解放。

我比较认同“拯救派”的观点。人类身小力薄，从来都不是靠体能和智能的进化站在食物链顶端的，我们靠的是不断发明和使用工具。GPT就是这个时代最伟大的工具。我们可以借助它的能力大幅提升生产效率，提高个体自身的能力，普通人也能解锁专业技能，发挥聪明才智。通过人机协作的方式，我们将变成史上最强人类，智人2.0。

昨天我在发布会现场演示360GPT的时候也问了这个问题，它回答说“无论如何我们应该认识到AI仍处于婴儿期，需要在宽容和支持的基础上进行发展”。

看起来360GPT的求生欲满满。这个答案我满意。

SFC

本期编辑黎雨桐实习生余心雨

21君荐读